贝叶斯因子及其在 JASP 中的实现，传说中的贝叶斯统计是什么？
贝叶斯因子及其在 JASP 中的实现
摘 要
统计推断在科学研究中起到关键作用，然而当前科研中最常用的经典统计方法——零假设检验(Null hypothesis significance test, NHST)却因为难以正确理解而被滥用或误用。有研究者提出使用贝叶斯因子(Bayes factor)作为是一种替代和(或)补充的统计方法。贝叶斯因 子是贝叶斯统计中用来进行模型比较和假设检验的重要方法，这一方法对于心理学及相关领域的大部分研究者来说仍然比较陌生。因此，本文介绍了贝叶斯因子的基本思路，并总结了贝叶斯因子与 NHST 相比的优势。在此基础上，以贝叶斯独立样本 t 检验为例，演示如何在开放的 统计软件 JASP 中实现贝叶斯因子的计算，并解释了对贝叶斯因子结果的解读。最后，对贝叶斯因子的不足及其应用价值进行了讨论。
自20 世纪以来，统计推断在科学研究中起到越来越重要的作用，科学研究的结论也越来 越依赖于统计推断的正确应用。目前使用最为广泛的统计推断方法是零假设检验(Null hypothesis significance test, NHST)(见Wasserstein & Lazar, 2016 。然而，与NHST 在各个领域中广泛使用相伴的是研究者对 NHST 及p 值的误解和盲目使用，因此可能反而会带来了 些消极的后果。例如，p 值被用来支持不合理且无法重复的研究结果，引起了关于 NHST 是 否适合于科学研究的争论。在这个背景之下，有研究者推荐使用贝叶斯因子替代NHST。
贝叶斯因子(Bayes factor)是贝叶斯统计(Bayesian statistics)中用来进行模型比较和假设 检验的方法。在假设检验中，其代表的是当前数据对零假设与备择假设支持的强度之间的比率。 正如下一节将要详述的，贝叶斯因子能够量化地反映当前数据对各个假设支持的程度，因此可能更加适用于科研中的假设检验。但是，由于贝叶斯因子的统计原理及实现相对复杂，其在各个学科的研究中并未获得广泛关注。例如，虽然早在上世纪 60 年代已有研究者试图将贝叶斯 因子引入心理学研究，却一直未能获得广泛使用。
但是，随着计算机运算能力的大大提升，贝叶斯统计在计算机等领域获得了巨大的成功。 同时，研究者们开发出用于贝叶斯统计的工具，如 WinBUGs 、JAGS 、Stan 等，这些软件的出现，促进贝叶斯方法在各个研究领域中的使用。在这些贝叶斯统计相关的工具中，也有用于计算贝叶斯因子的工具，如 R 语言中的 BayesFactor。而在心理学及相关领域，不少研究者也试图引入贝叶斯统计的方法，尤其是在最近大量心理学研究无法重复的背景之。但对于不少心理学及相关领域的研究者来说，使用 R 语言或其他计算机语言进行贝叶 斯因子计算仍然有一些困难。为解决这一障碍，研究者们进一步开发了与商业统计软件 SPSS具有类似图形界面的统计工具 JASP (https://jasp-stats.org/, JASP team 2017)，简化了贝叶斯因子的计算。
本文旨在为向心理学及相关学科的研究者介绍贝叶斯因子及其使用。首先本文将介绍贝叶斯因子的原理，及其相对于传统假设检验中 p 值的优势;再以独立样本 t 检验为例，介绍了如 何使用 JASP 计算贝叶斯因子，以及如何解读和报告其结果。在此基础上，讨论了贝叶斯因子 的不足及应用价值。
1 贝叶斯因子的原理
贝叶斯因子是贝叶斯统计在假设检验上的应用，因此要理解贝叶斯因子，首先需要理解贝叶斯统计的原理。
1.1 贝叶斯统计的简介
贝叶斯学派(Bayesian statistics)与频率学派(Frequentist statistics)是统计学中主要的两个学派，其最核心的差异在于他们对于概率(probability)有着不一样的定义。对于频率学派而 言，概率是通过无数次重复抽样中频率(frequency)的预期值。与之相反，贝叶斯学派则认为， 概率是对一件事情的相信程度，从0 到1 表示人们基于事先所获得的信息，在多大程度上相信 某件事情是真的。由于不同人对同一事件的相信程度可能不同，因此，贝叶斯学派的概率是具 有主观性。但贝叶斯学派的概率却不是任意的:人们通过合理的方式，不断获取并更新已知信 息，可以最终消除主观性，从而达成一致。
由于频率学派将概率定义为长期行为表现的结果，因此要理解频率学派的概率，通常需要 假想那些尚未发生的事件。例如，在NHST 框架之下，p 值的意义是假定H0 为真的情况下，出现当前结果及比当前结果更加极端结果的概率。换句话说，p 值表达的是:如果以完全相同的条件无数次地重复当前实验，这些实验中有多少大比例会出现当前结果模式或者更极端结果 的模式。因此，p 值的意义暗含一个假设:我们能够进行无数次相同的试验。但是实际上，研 究者往往难以理解这种对未出现的无数次相同试验的假定，而误认为 p 值是一次检验中拒绝零 假设时犯错误的概率。这种对NHST 的误解，恰好是带有贝叶斯统计色彩，即根据当前的数据计算某个模型正确或错误的概率。
与频率学派统计不同，贝叶斯统计最大的特点之一在于:贝叶斯统计考虑了个体对不同可 能性的可信度(credibility)，而改变其可信度的，正是人们不断获得的数据。这种思维方式 与人们在日常生活中的经验非常相似:当我们不断地获得支持某个观点的证据时，我们会更加相信该观点。
虽然贝叶斯统计对概率的理解与频率学派不同，但是其对概率的计算却严格依照概率的基 本原则:加法原则与乘法原则。贝叶斯统计中最核心的贝叶斯法则(Bayes rule)，也是根据简 单的加法原则与乘法原则推导而来。依据概率的乘法原则，随机事件A与随机事件B 同时发生的概率为:
公式1 即为联合概率的公式，即随机事件A 与随机事件B 同时发生的概率。其意义为:
随机事件 A 与随机事件 B 的联合概率(p(A∩B))为，在 B 发生的条件下 A 发生的概率(p(A|B)) 与 B 发生的的概率(p(B))的乘积，也等于在 A 发生的条件下 B 发生的概率(p(B|A))与事件A 发生的概率(p(A))的乘积。其中，p(A|B)和 p(B|A)均为条件概率(conditional probability)，二者意义不同。
对公式 1 进行变换，即可以得到如下公式:
公式2 即为贝叶斯定理公式。其代表的意义是，如果我们要计算随机事件 B 发生的条件 下A 发生的概率(p(A|B))，可以通过使用 A 与 B 同时发生的概率(p(A∩B))除以B 发生的 概率(p(B))，也就等于在 A 发生的条件下 B 发生的概率，与A 发生概率的乘积，再除以 B 发 生的概率。公式2 将两个条件概率联系起来，从而使得计算不同的条件概率成为可能。
在贝叶斯统计的框架之下，公式 2 可以看作是一次信息的更新。假定我们需要根据一次实验收集到的数据(data)来检验某个理论模型为真的可能性。如果我们以心理学研究中常用的 零假设 H0 为例，则可以将公式2 改写如下:
p(H0|data)表示数据更新之后理论模型 H0 正确的概率，即后验概率(posterior);p (H0)表示 更新数据之前认为理论模型 H0 正确的概率，即先验概率(prior);而p(data| H0)则是在模型H0之下，出现当前数据的概率，即边缘似然性(marginal likelihood)。由此可以看出，在贝叶斯统 计之中，一次数据收集(实验)的主要功能在于帮助我们更新理论模型的可信度。
根据公式3，我们可以使用数据对任意的模型为真的概率进行更新。在假设检验中，我们可以根据观测数据同时对零假设(理论模型H0)和备择假设(理论模型 H1)的可信度进行更新(分别见公式3 和公式4)，得到它们更新的后验概率。
在公式6 中，BF10 中下标的1，代表的是H1，0 代表的是H0，因此，BF10 即代表的是 H1与H0对比的贝叶斯因子，而BF01即代表的是H0与H1对比的贝叶斯因子。例如，BF10 =19表示的是，在在备择假设H1为真条件下出现当前数据的可能性是虚无假设H0条件下出现当前 数据的可能性的19 倍。
从贝叶斯因子的公式中可以看出，贝叶斯因子不依赖于对先验假设(p(H1)和 p(H0))。更重要的是，正是贝叶斯因子根据当前数据将先验概率更新为后验概率。
因此，NHST 与贝叶斯因子回答了不同的问题。NHST 试图回答“假定我们已知两个变量的关系(如，两种条件没有差异)，出现当前观测数据的模式或者更加极端模式的概率(p(more extreme > observed data|H0))有多大”的问题;而贝叶斯因子试图回答的是，在当前数据更可 能在哪个理论模型下出现。考虑到研究者往往想知道当前数据模式条件下，H0 或者 H1 为真的 概率(分别为 p(H0|data)与 p(H1|data))，在假设检验中，贝叶斯因子具有一些 NHST 不具备的 优势，下一小节将对这些优势进行详细说明。
对贝叶斯因子大小的解读，在 Jeffreys (1961) 的基础上，Wagenmakers, et al. (2017) 对贝叶斯因子的大小所代表的意义进行原则上的划分(见表2)。但是这个划分仅是大致参考，不能严格对应，研究者需要根据具体的研究来判断贝叶斯因子的意义。
1.2 备择假设的默认先验
由于贝叶斯因子中先验概率具有至关重要的作用，因此如何选择备择假设的先验分布变成 了一个非常重要的问题。其中一个较为合理的做法是，根据采用该范式的先前研究(如元分析得到的效应量)来假设备择假设的先验分布。但这种做法在很多情况下并不现实:首先根据范式的不同，效应量的可能分布不同;更重要地，由于许多研究本身具有一定的探索性，并没有先前研究结果作为指导。因此，更加常用的做法是使用一个综合的、标准化的先验。
例如，在贝叶斯 t 检验中，零假设的先验比较好确定，但是对于备择假设的先验分布应该 如何选择，则比较困难。有研究者指出，使用柯西分布(Cauchy distribution)可能是比较合理 的选择。与标准正态分布相比，柯西分布在 0 附近概率密度相对更小一些，因此其比 标准的正态允许更多较大的效应(见图 1);而与均匀分布(即效应量在所有值上的分布完全相 同)相比，柯西分布更偏好零假设一些。因此，对于备择假设的先验分布，可以如下表示:
2 贝叶斯因子的优势
如前所述，在假设检验中，贝叶斯因子除了更加符合人们的直觉之外，还具有一些 NHST具备的优势。这些优势可以总结为五个方面(见表 1)。以下将从这五个方面展开。
2.1 同时考虑H0和H1
如前所述，贝叶斯因子的计算同时考虑 H0 和 H1，并根据全部现有数据对 H0 和 H1 为真的 先验概率进行更新，在此基础之上，比较在当前数据下哪个理论模型(H0 和 H1)更合理。这种思路与 NHST 不同:在 NHST 框架之下，计算 p 值需要假定 H0 为真，而对 H1 不做任何假设，因此p值与H1无关;NHST的逻辑是，如果H0为真，观察到当前数据出现的概率非常小，则拒绝 H0，接受 H1;这种情况下，NHST 忽略了一种可能性:当前数据下，H1 为真的概率与H0 为真的概率相当或者更小。例如，在 Bem (2011)中，H0 是被试的反应不受到未来出现 刺激的影响，H1 是未来出现的刺激会影响到被试当前反应，即被试能够“预知”尚未出现的刺 激。虽然采用NHST 的逻辑 Bem (2011)得到了 p < 0.05 的结果，即 H0 为真时，得到当前数据 的概率(p(data|H0))很低，因此作者选择拒绝 H0 而接受 H1，认为被试能够预知未来出现的刺 激。然而，研究者更关心的是，根据当前数据，某个模型/假设(如 H1)为真的概率(p(H1|data))， 而非零假设 H0 为真时得到当前数据的概率(p(data| H0))。考虑到先验知识告诉我们 H1 本身为 真的概率可能非常低，在当前数据模式下，H1 为真的可能性 p(H1|data)极可能比 H0 为真的可 能性 p(H0|data)更低。
此外，p 值等于在 H0 为真的情况下，多次重复实验观察到与当前数据一样极端或者更加极端结果的概率，即 p 值是假定 H0 为真时概率分布的尾端面积的积分值。因此，对 p 值的理 解需要假定存在着比当前数据更加极端的数据模式，而人们在直觉上并不太擅长做出这种假定， 常常会带来对 p 值的误解。
因此，由于贝叶斯因子分别量化了当前数据对 H0 和 H1 的支持强度，对 H0 和 H1 同等对待， 而不是像 NHST 一样完全不考虑 H1。另外，贝叶斯因子不需要假定未出现的数据，也更加符合人们的直觉。
2.2 可以用来支持 H0
同样，由于同时量化了当前数据对 H0 和 H1 各自的支持强度，贝叶斯因子可以用来支持 H0。在贝叶斯的框架下，只要 H0 和 H1 假设是具体的，贝叶斯因子就可以根据当前数据对他们 的后验概率进行一次更新，从而得到当前数据更支持哪个假设的结果。如果 H0 比 H1 更加符合数据的模式，则贝叶斯因子能够表明当前数据支持 H1。但是，在传统的 NHST 框架之下，由于假设检验仅在 H0 为真的假设下进行，仅凭借大于显著性性水平(比如 0.05 或 0.005)的 p值是无法为 H0 是否为真提供证据。比如，仅依据假设检验的结果 p = 0.20 并不能断言有证据 表明没有效应(evidence of absence)(除非结合样本量、效应量和统计效力 Power 做出综合判断)。
在实际的研究中，能够对 H0 提供量化的证据具有非常重要的意义，它可以直观地让 研究者区分出有证据表明没有效应(evidence of absence)和没有证据表明有效应(absence of evidence)这两种情况。更具体来说，贝叶斯因子的结果有三种状态:(1)提供了支持 H1 的 证据(即有证据表明有效应);(2)支持 H0 的证据(即有证据表明没有效应);或(3)证据对 两者都不支持(没有足够的证据表明有效应还是无效应)。例如，零假设与备择假设相比的贝 叶斯因子BF01 =15，则说明的是在这种情况下，观察到的数据出现在H0为真情况下的可能 性是在 H1 为真情况下的可能性的 15 倍，表明当前数据更加支持没有效应的假设 H0。但是， 假如 BF01 = 1.5，则说明观察到的数据出现在 H0 为真情况下的可能性是在 H1 为真情况下的 可能性的 1.5 倍，则说明当前数据对于两个假设的支持程度相当，没有足够的证据支持 H0 或 者 H1(见表 2 关于贝叶斯因子大小意义的建议)。
值得注意的是，不管是支持 H1，还是支持 H0，贝叶斯因子提供的证据是相对的，即，相 对于某个假设更支持另一个假设，但可能存在第三个模型 H2 比 H1 和 H0 均更接近真实情况， 具有更高的后验概率。此外，最近有研究者在 NHST 框架之下发展出可以接受零假设的方法: 等同性检验(Equivalence Test)。这种方法通过设定多个 H0 来检验效应量是否与 0 没有差异，
从而检验是否能接受 H0。但等同性检验仍然使用了非常主观的 p 值，无法提供对证据的测量。
2.3 不“严重”地倾向于反对 H0
贝叶斯因子同时分别量化了当前数据对 H0 和 H1 支持的强度，因此，与传统 NHST 相比，其在比较数据对 H0 和 H1 的支持强度时更加均衡，从而其拒绝 H0 的倾向也相对没有那么强烈。
事实上，在传统 NHST 假设之下，研究者总能拒绝 H0。例如，有研究者分析了美国总结选 举中候选人的身高与当选之间的关系，对相关系数进行显著性检验之后发现 r = 0.39，p = .007，但使用贝叶斯因子分析表明 BF10 = 6.33。虽然两种方法大致上支持了同样的结论(即 拒绝 H0 与中等程度的证据支持 H1)。但是从 p 值上看，似乎表明拒绝 H0 的证据很强，而贝叶 斯因子得到的支持则是有保留的。Wetzels, et al. 比较了 855 个 t 检验的结果，发现虽然大部 分的情况下 p 值与贝叶斯因子在结论上是一致的，但是贝叶斯因子相对来说更加谨慎:p 值在0.01 与 0.05 之间的统计显著结果，其对应的贝叶斯因子只表明有非常弱的证据。对传统 p 值的贝叶斯解读，详见。
2.4 可以监控证据的强度变化
计算贝叶斯因子时，可以根据数据更新对 H0 和 H1 支持的程度，因此，随着新数据的出现， 可以不断对不同假设的支持程度进行更新。在贝叶斯框架之下，贝叶斯因子的计算与解读均不 需要假定存在无数的重复实验，而是按照似然性法则对贝叶斯因子进行更新，此外数据的出现 顺序不会影响贝叶斯因子的解读。
正是由于在贝叶斯统计的框架之下，没有假阳性的概念，因此，对贝叶斯因子的解读不会 受到何时停止收集数据的影响。实际上，如果研究者们能够采用序列贝叶斯因子设计，在实 验开始前提前设置贝叶斯因子的合理阈值(通常是 10，即较强的证据)，则能够在实验中根据 数据增加对后验概率进行更新，可以在适当的时候停止收集数据。这种不受到停止规则影 响的原则，对实际研究具有重要的意义，使得研究者能合理有效地收集数据。
2.5 不受抽样计划的影响
由于贝叶斯因子的计算使用似然性原则，其对数据的分析没有预先的假设，因此也不受 到抽样计划的影响。换句话说，即使研究者对数据收集的过程不清楚，仍能够计算和解读贝叶 斯因子。这个特点对于分析自然情境中获得的数据非常实用。
仍然以上述的美国总结选举中候选人的身高与当选之间关系的研究为例，研究者发现 r = 0.39，p = .007。在 NHST 框架之下，要对 p 值进行合理的解读，我们必须假定 p 值是实验 者在总统选举之前已经计划好进行 46 次选举，并且在第 46 次选举后停止收集数据，在此基础 之上计算相关系数;否则，p = 0.007 代表的意义很难解读。但很明显的是，这些假设是不成立 的。因此，对于这个例子来说，使用 NHST 的前提条件是不满足的。
同样，这个例子也存在与停止规则相关的问题:在真实的生活中，美国的总统选举还会继 续，数据会继续增加。如何分析未来的这些数据呢?如果每新增加一个数据均进行一次 NHST分析，则会引起多重比较的问题，使得假阳性增加。
与 NHST 相反，贝叶斯因子能够随着新数据不断地出现而不断地更新，从而能够分析实验 室之外的真实数据，也能够对数据进行有意义的解读。因此，在这个例子，数据随着时间慢慢积累，贝叶斯因子实时监控证据的优势与不受抽样计划影响的优势也相互关联起来:这两个优 势均是因为贝叶斯因子不依赖于研究者收集数据的意图。但是，正如我们在后面要提到的，虽然随着数据更新而更新贝叶斯因子不会影响到对其解读，但这种忽略假阳性的做法并不能避免 假阳性的升高，研究者仍需要通过提前设置合理的阈值和(或)选择合适的先验来控制假阳性。
总之，贝叶斯因子以观察到的数据为条件，定量地分析当前数据对 H0 和 H1 提供的支持程度。通过实时地监控证据强度的变化，贝叶斯因子让研究者可以在收集数据的同时监控证据强 度的变化。如果预先确定贝叶斯因子的停止阈值(比如 BF10 大于 10 或者 BF10 小于 1/10 时停 止收集数据)，研究者能够在证据足够充足停止收集数据。此外，即使缺乏数据收集计划信息 的情况下，贝叶斯因子仍然能够从观测数据中得到证据来更加支持哪个假设。更重要的是，贝 叶斯因子本质上是对不同的模型的进行比较，因此其不需要假定某个模型为真。
3 使用 JASP 计算贝叶斯因子
由于贝叶斯因子的独特优势，因此很早就有研究者将其引入心理学的研究之中。在实际情况中，贝叶斯因子计算的具体公式会随着数据类型和分析的类型而变得更加复杂，相关公式可以参考。正是由于这个原因，贝叶斯因子在心理学的研究中一直受到很大的限制。 但是最近，研究者利用 R 语言丰富的软件包，开发了可视化的统计工具 JASP (https://jasp- stats.org/)，该软件采用与SPSS 类似的用户界面，让贝叶斯因子的计算变得更加容易实现，本 小节将介绍 JASP 软件及其使用。
3.1 JASP 软件简介
JASP 是一个免费、开源的统计软件，其使用 R 语言的工具包进行数据处理，但其使用不 需要安装 R。JASP 的长期目标是让所有人能够通过免费的统计软件进行最先进统计技术，尤 其是贝叶斯统计中的贝叶斯因子。
JASP 是在心理学研究面临可重复危机的背景下开发的，其开发理念如下:第一，开源与免费，因为透明应该是科学研究的本质元素;第二，包容性，即包括贝叶斯分析，也包括NHST分析方法，而且NHST 分析方法中，增加了对效应量及其置信区间的输出;第三，简洁性，即JASP 的基本软件中仅包括最常用的分析，而更高级的统计方法又可以通过插件模块进行补充;第四，友好的图形界面，例如，输出部分随着用户选择变量输入而实时更新，表格使用心理学学术论文的标准格式APA 格式。同时，JASP 的使用递进式输出，即默认的结果输出是最 简洁的，更多的结果输出可以由研究者自己进行定义。此外，为方便公开和分享分析过程，JASP将输入的数据与输出结果保存于同一个后缀为.jasp 的文件之中，每个分析的结果均与相应的 分析和变量数据相关联。这种结果与数据整合的文件可以与开放科学平台 OSF 兼容，从而做到数据与结果分享。
3.2 贝叶斯因子分析在JASP 的实现及其结
果解读JASP 中可以实现多种实验设计的贝叶斯因子分析，包括单样本 t 检验、独立样本 t 检验、 配对样本 t 检验、方差分析、重复测量的方差分析、ANCOVA 和相关分析。对于每一种分析， 均提供了频率学派的方法和贝叶斯的方法。JASP 的贝叶斯因子分析中采用前述的默认先验分 布，但也可以修改。接下来本文将 Wagenmakers et al. (2015, https://osf.io/uszvx/)对 Topolinski and Sparenberg (2012) 的重复实验数据为例进行分析，说明如何使用 JASP 进行独立样本 t 检验。其他常用贝叶斯因子分析，可以进一步参考 Wagenmakers et al. (2017)。
在 Topolinski and Sparenberg (2012) 的第二个实验中，一组被试以顺时针方向拔动一个厨 房用的钟，而另一组则以逆时针方向拨动。随后，被试填写一个评估经验开放性的问卷。他们的数据表明，被试顺时针转时比逆时针转的被试报告更高的对经验的开放性 (但是见 Francis,2013 )。Wagenmakers, et al. (2015) 采用提前注册(preregistration)的方式对该研究进行 重复，在实验开始前确定停止收集数据的标准:当支持某一个假设的贝叶斯因子达到 10 时即 停止收集数据，或者每条件下达到 50 个样本后停止收集数据。此外，预注册时采用单侧 t 检 验的默认先验，即 r = 1 的柯西分布。而单侧的 t 检验的先验是只有正效应的柯西分布，即备择假设为 H+ : Cauchy (0, 1)。
有研究者认为，默认先验分布 Cauchy (0, 1)是不现实的，因为在这个分布中，大的效应量占 的比例太大(大于 1 的效应量在分布中占了 50%以上);相反，另一些人觉得这个分布不现实 是因为这个分布中，靠近 0 的效应量的比重太大，即效应量为 0 是最可能的值。一个避免这些 问题的做法是减小柯西分布的参数 r。在 BayesFactor 工具包中，默认采用的
JASP 中对于单侧的 t 检验同样采用这个先验。r 减小意味着H1 和H0 相似，他们对观测数 据的预测相似，更难得到支持H0 的强证据。
使用 JASP 可以对这批数据进行贝叶斯的独立样本 t 检验。首先用JASP 打开数据(File →Examples→“Kitchen Rolls”，或者从 https://osf.io/9r423/下载后，点击 File→Open)，然后在 T- tests 的面板中选择“Bayesian Independent Samples T-test”。将显示如图 1 中间图所示的对话框。 我们已经将“mean NEO”作为因变量(dependent variable)，“Rotation”作为分组变量(grouping variable)。勾选了“Descripitves”、“prior and posterior”及其子选项“Additional info”之后，结 果如图 4 右边的所示:与顺时针相比，逆时针对经验的开放性稍微高一些，这个结果的方向与Topolinski and Sparenberg (2012)所假设的正好相反。
如果将Cauchy先验的宽度设置为JASP的默认值r=0.707，同时勾选了“Prior and posterior”及其子选项的“Additional info”这两个选项，结果如图 2 右侧所示。从实线的分布可以看出，大 部分的后验概率是负值，其的中值是-0.13，95%的可信区间从-0.5到0.23。BF01 =3.71，表明 观察到的数据在 H0 假设之下的可能性是在 H1 假设之下可能性的 3.71 倍(我们选择了 BF01， 因为 BF01=3.71 相对于等价的 BF10=0.27 来说更好解释)。
单侧检验的结果如图 3 右边部分所示。与预期的一致，如果观察到的效应是与假设相反， 则这种使用单侧检验将先验知识整合到分析之中的做法，增加支持 H0 的相对证据(也见 Matzke et al. (2015) )，即贝叶斯因子 BF01 从 3.71 增加到了 7.74，意味着观察到的数据在 H0 下的可 能是在 H+可能性的 7.74 倍。
值得注意的是，在 H+下的后验分布是集中在 0 但不是没有负值(见图 3 右侧)，与 H+中的顺序限制是一致的。这一点与传统频率主义的单侧置信区间不同，传统方法的单尾置信区间为[-.23 +∞) 。虽然传统频率主义的区间在数学上是良好定义的(即，它包括了全部的不会被单尾的 a = 0.05 显著性检验拒绝的值)，但是大部分研究者会发现这个区间即不好理解也没有信息量。
除了计算贝叶斯因子外，JASP还可以进行稳健性分析(Baye sian robustness check)，从而量化柯西先验分布参数 r 对贝叶斯因子的影响。如图 4 所示，选中“Bayes factor robustness check”的选项，这将得到图 4 右侧上面的图。从该图可以看到，当 Cauchy 先验的 r 为 0 时，H0 与 H+相同(BF0+=1)，BF0+随着r的增加而增加。在JASP的默认值r=0.707，贝叶斯因子BF0+ =7.73;而对于Jeffrey默认的r=1，贝叶斯因子BF0+ =10.75。因此，在一系列r的先验值中， 当前数据显示了对 H0 的中等到强的证据支持。
此外，还可以勾选图 4 中间的部分的“Sequential analysis”及其子选项“Robustness check”，进 行序列分析。其结果见图 4 右侧下半部分的图。序列分析显示的是贝叶斯因子随着着抽样而变 化的结果，也就是说，研究都可以在新数据收集到时对证据的积累进行监控和可视化。从图中 可以看到，实际上 Wagenmakers et al. (2015)并未按预注册时的 r = 1 先验来计算 BF0+并在 BF0+ > 10 或者 BF+0 > 10 时立刻停止收集数据: 在 55 个被试之后，虚线超过了 BF0+ > 10，但是数据 仍然继续收集。在实践中，每隔几天检验一次贝叶斯因子，有助于了解贝叶斯因子是否在某个时间点上超过预先决定的标准，并据此决定是否停止数据。
序列分析的一个优点是它可视化了贝叶斯因子在不同先验条件下的收敛过程，即贝叶斯因子在 log 尺度上差异开始稳定不变 (e.g.)。在当前的例子中，当被试数量达到 35 时， 不同先验下的贝叶斯因子开始出现收敛。要理解为什么在贝叶斯因子的 log 值的差异会在一些 初步的观测数据之后不再变化，我们可以假定数据 y 包括两个部分 y1 和 y2，根据条件概率公 式，BF0+ (y) = BF0+ (y1) × BF0+ (y2|y1)。这个公式表明，贝叶斯因子并非是对不同数据进行盲目 地相乘，实际上公式中的第二个因子——BF0+(y2|y1) —— 反映的是:当先验分布已经根据数 据 y1 进行更新后，数据 y2 对贝叶斯因子再次更新 (Jeffreys, 1961, p. 333)。对这个公式进行log 转换后，得到 log(BF0+ (y)) = log(BF0+ (y1)) + log(BF0+ (y2|y1))。假定数据 y1 包括了足够的 信息，不管 r 如何变化，通过 y1 更新后均得到大致相同的结果分布(在大部分情况下，这种 情况很快就会出现)。而通过 y1 得到的这个后验分布，又变成了数据 y2 的先验分布，即成为log(BF0+(y2|y1))的先验。在这种情况下，log(BF0+(y2|y1))的值大致相似(相似的先验分布，相 同的数据)。因此，不一样的 r 值会让数据 y1 产生不同的后验分布，但当数据 y1 是足够的大 后，使得 y1 的后验分布大致相似，此时 y2 再次对模型进行更新的大小也是相似，这就使得log(BF0+(y2|y1))在不同的 r 下相似，产生收敛的现象。
3.3 使用贝叶斯因子时如何报告
贝叶斯统计在目前的心理学研究中并不常见。虽然大部分杂志的编辑和审稿人会欣赏采用 更加合理的统计手段，但是出于对贝叶斯方法的陌生，研究者需使用贝叶斯因子时，需要提供 相关的背景信息让编辑和审稿人了解这种背景。因此，除了报告贝叶斯因子的结果之外，还需要首先报告如下几点。第一、选用贝叶斯因子的动机与原因，即为什么在某个报告中使用贝 叶斯因子而不是 NHST。例如，可以说明贝叶斯因子提供了更加丰富的信息，或者数据特点不满足 NHST 的前提假设(如在自然情境下收集的数据，无法判断数据收集的动机和实验假设)。 第二、描述贝叶斯因子在模型比较中的基本逻辑。即，假定读者并不非常了解贝叶斯因子，简 单地解释贝叶斯因子中模型比较的思想。第三、描述贝叶斯因子分析中的先验分布以及采用该 先验的原因，先验分布应该或多或少对数据分析提供一些信息。第四、解释贝叶斯因子，将贝 叶斯因子与研究中的理论或假设结合起来。
贝叶斯因子不使用统计显著，而是描述数据对假设的支持程度。例如，在 Wagenmakers, et al. 中，对Jeffreys 默认先验下的贝叶斯结果进行如下描述:
“贝叶斯因子为 BF01 = 10.76，说明在(假定没有效应的)零假设下出现当前数据的可能性 是在(假定存在效应的)备择假设下可能性的 10.76 倍。根据 Jeffreys (1961)提出的分类标准， 这是较强的证据支持了零假设，即在顺时针和立逆时针转钟表指针的人在经验开放性(NEO) 得分上没有差异。”
此外，使用贝叶斯因子进行分析时，还可以报告探索性的结果，如稳健性分布和序列分析的结果，这些结果将进一步丰富结果的信息，给其他研究者提供更加全面的结果。
4 总结与展望
近年来，科学研究的可重复问题备受关注，尤其是心理学，对 NHST 的过度依 赖正是原因之一。贝叶斯因子作为一种假设检验方法，具有 NHST 不具备的一些优势，其能够对当前心理学研究中对 NHST 框架下的 p 值的过度依赖起到补充的作用。但是值得注意的是，心理学研究重复失败的原因多种多样，仅使用贝叶斯因子不能让心理学的研究变得可重 复。例如数据不开放以及研究过程不透明、对探索性分析与验证性分析不加区分、以发表论文为核心的奖励体系等都可能是造成当前研究可重复率低的原因。即便如此，作为一种不同于传统 NHST 的方法，贝叶斯因子有助于研究者使用多种的方法对同一研究进行分析，从而得到更加稳定的统计的推断，得到更加客观的结论。需要指出的是，采用多种方法进行分析时，需要报告全部的分析过程和结果，而非选择最有利于自己结论的分析结果进行报告。
4.1 贝叶斯因子的不足
贝叶斯因子是贝叶斯统计在假设检验方面的应用，而贝叶斯学派与频率学派统计的争议一直存在。实际上，有研究者认为贝叶斯因子也可能存在许多问题，充分了解这些反对的观点，将更加有利于我们在研究中合理地使用贝叶斯因子。
对贝叶斯因子最强烈的质疑来自于对其先验概率的设定，可能会认为先验概率过于主观、 过于保守从而不容易出现较强的证据等。也有研究者认为，默认的先验对小的效应不利。例如，Bem, et al. 认为，Wagenmakers, et al. 对 Bem的数据进行重新分析时，采用了不合 适的先验概率是 Wagenmakers, et al. 未能得到与 Bem一致结论的原因。这种批评实质上是对贝叶斯因子的误用，即未将先验知识转化成为合适的先验概率。有趣的是，只要研究者将自己使用的先验概率保持透明与公开，其他研究者可以采用交叉验证，从而起到充分探索的作用。
其次，也有研究者认为，贝叶斯因子没有考虑假阳性的问题。在 NHST 框架之下，研究者 非常强调控制一类错误与二类错误的问题。例如心理学研究中一般将一类错误控制在 5%以内， 因此显著性水平设置为 0.05。也正是需要控制一类错误，NHST 框架之下有许多方法用来调整 阈值使其一类错误率不至于太高，例如直接提高显著性水平阈限到 0.005和多重比较校正 的方法。而贝叶斯统计主要是为了不断地对证据的强度进行测量，其不考虑控制假阳性(即一 类错误)的问题。因此，当研究者基于贝叶斯因子进行决策(效应是否存在)时，就可能犯下 一类错误。因此，在实际的贝叶斯因子分析中，可以通过先验来解决多重比较的问题。 例如，直接说明研究者预期假阳性率有多大。
还有研究者指出，基于估计的统计总是要比假设检验更优，因为估计本身将不确定性考虑进来。例如，Cumming (2014) 建议使用效应量及其置信区间以替代 p 值。但是考虑到参数 估计与假设检验在科研中均有其相应最适用的问题，因此贝叶斯因子无法直接与基于估计的频 率主义学派统计进行比较。但是，贝叶斯统计中，也有基于估计的方法。
最后，贝叶斯因子进行假设检验，本质上是证据的不断累积，而非得到二分的结论。因此，一次实验的结果可以被看作是试探性的，研究者可以继续收集数据或者进行重复实验。
4.2 贝叶斯因子的应用前景
贝叶斯因子作为基于贝叶斯统计的假设检验方法，与 NHST 相比具有一些优势，其使得研究者可以直接检验数据是否支持零假设，不再受抽样意图和停止收集数据标准的影响，从而更加灵活地进行数据分析。这些优势可能帮助心理学家更好地在研究过程中进行决策，同时，贝叶斯因子的采用也可以促进研究者去更加深入地理解贝叶斯方向的适用范围以及前提条件等。
JASP 的推出，使用贝叶斯因子的计算和解读变得更加简便，研究者即便没有很强的编程 基础，也能够使用 JASP 迅速地进行贝叶斯因子分析。这可能有助于推动研究者研究中更加广 泛地使用贝叶斯因子。此外，JASP 本身正在快速发展，其功能的深度和广度正在不断地扩大， 新的方法和标准将不断地整合到软件之中，可能使研究者更科学地进行研究。
参考文献：略
原文链接：http://www.chinaxiv.org/abs/201709.00120，欢迎各位读者留言评论 （注: ChinaXiv是没有经过同行评议的预印本【working paper】）
传说中的贝叶斯统计到底有什么来头？
贝叶斯统计在机器学习中占有一个什么样的地位，它的原理以及实现过程又是如何的？本文对相关概念以及原理进行了介绍。
引言：在很多分析学者看来，贝叶斯统计仍然是难以理解的。受机器学习这股热潮的影响，我们中很多人都对统计学失去了信心。我们的关注焦点已经缩小到只探索机器学习了，难道不是吗？
机器学习难道真的是解决真实问题的唯一方法？在很多情况下，它并不能帮助我们解决问题，即便在这些问题中存在着大量数据。从最起码来说，你应该要懂得一定的统计学知识。这将让你能够着手复杂的数据分析问题，不管数据的大小。
在18世界70年代，Thomas Bayes提出了“贝叶斯理论”，即便在几个世纪后，贝叶斯统计的重要性也没有减弱。事实上，世界上那些最优秀的大学都在教授有关这个话题的深度课程。
在真正介绍贝叶斯统计之前，首先来了解下频率统计这个概念。
1. 频率统计
有关频率统计和贝叶斯统计的争论以及持续了好几个世纪，因此对于初学者来说理解这两者的区别，以及如何划分这两者十分重要。
它是统计领域中应用最为广泛的推理技术。事实上，它是初学者进入统计学世界中的第一所学校。频率统计检测一个事件（或者假设）是否发生，它通过长时间的试验计算某个事件发生的可能性（试验是在同等条件下进行的）。
在此处，使用固定大小的采样分布作为例子。然后该实验理论上无限次重复的，但实际上是带着停止的意图的。例如当我脑海中带着停止的意图时，它重复1000次或者在掷硬币过程中我看到最少300词头在上的话，我将停止进行实验。现在让我们进一步了解：
通过掷硬币的例子我们就会明白频率统计，目的是估计抛硬币的公平性，下表是代表抛硬币过程中头在上的次数：
我们知道在公平的掷硬币过程中得到一个头在上的那概率为0.5。我们使用No. of heads表示所得头在上的实际数量。Difference表示0.5*(No. of tosses) 与 no. of heads之间的差别。
要注意的是，虽然投掷的数量增加时，头在上的实际数量和头在上的预期数（抛掷数目的50％）之间的差异会逐渐增大。但是以抛掷的总数来说，头在上出现的比例接近0.5（一个公平的硬币）。
该实验中我们在频率方法中发现了一个很常见的缺陷：实验结果的独立性与实验次数是重复的。
2. 频率统计的内在缺陷
到这里，我们开始来探讨频率统计的缺陷：
在20世纪有大量的频率统计被应用到许多模型中来检测样本之间是否不同，一个参数要放在模型和假设检验的多种表现中足够重要。但是频率统计在设计和实现过程存在一些重大缺陷，这些在现实中的问题引起相当大的关注。例如：
1. p-values 对固定大小的样本进行检测。如果两个人对相同的数据工作，并有不同的制动意向，他们可能会得到两种不同的p- values。
2. 置信区间（CI）和p-value一样，在很大程度上取决于样本的大小。因为无论多少人如何执行相同的数据测试，其结果应该是一致的。
3. 置信区间（CI）不是概率分布，因此它们不提供最可能的值以及其参数。
这三个理由足以让你对于频率统计的缺陷进行思考，以及对为什么需要贝叶斯方法进行考虑。
有关贝叶斯统计的基础知识就先了解到这里。
3.贝叶斯统计
“贝叶斯统计是将概率运用到统计问题中的数学过程。它提供给人们工具来更新数据中的证据。”要更好的理解这个问题，我们需要对于一些概念要有所认识。此外，也需要有一定的前提：
线性代数
概率论与数基本统计
3.1条件概率
条件概率被定义为：事件A中给定事件B的概率等于B和A一起发生的概率再除以B的概率
例如：如下图所示设两部分相交集A和B
集合A代表一组事件，集合B代表了另一组。我们希望计算给定B的概率已经发生了的概率，让我们用红色代表事件B的发生。
现在，因为B已经发生了，现在重要的A的部分是在蓝色阴影部分。如此，一个给定的B的概率是：
因此，事件B的公式是：
要么
现在，第二方程可以改写为：
这就是所谓的条件概率。
假设，B是James Hunt的中奖事件，A是一个下雨的事件。因此，
P（A）= 1/2，由于每俩天都会下一次雨。
P（B）为1/4，因为詹姆斯每四次比赛只赢一次。
P（A | B）= 1，因为每次下雨James都赢。
条件概率公式中代入数值，我们得到的概率在50％左右，这几乎是25％的两倍（下雨的情况不考虑）。
也许，你已经猜到了，它看起来像贝叶斯定理。
贝叶斯定理建立在条件概率的顶部，位于贝叶斯推理的心脏地区。
3.2 贝叶斯定理
下图可以帮助理解贝叶斯定理：
现在，B可被写为
因此，B的概率可以表示为，
但
因此，我们得到
这就是贝叶斯定理方程。
4.贝叶斯推理
让我们从抛硬币的例子来理解贝叶斯推理背后的过程：
贝叶斯推理中一个重要的部分是建立参数和模型。
模型观察到的事件的数学公式，参数是在模型中影响观察到数据的因素。例如在掷硬币过程中，硬币的公平性 可以被定义为θ——表示硬币的参数。事件的结果可以用D表示
4个硬币头朝上的概率即给定硬币（θ）的公平性，即P(D|θ)
让我们用贝叶斯定理表示：
P(θ|D)=(P(D|θ) X P(θ))/P(D)
P(D|θ) 是考虑到我们给定分布θ时，我们结果的可能性。如果我们知道硬币是公平的，这就是观测到的头朝上的概率。
P(D)就是证据，这是因为通过在θ的所有可能的值，是θ的那些特定值加权求和（或积分）确定的数据的概率。
如果我们的硬币的公正性是多个视图（但不知道是肯定的），那么这告诉我们看到翻转的一定顺序为我们在硬币的公平信念所有可能性的概率。
P(θ|D) 是观察，即头在上数目之后我们的参数。
4.1 伯努利近似函数
回顾让我们了解了似然函数。所以，我们得知：
它是观察翻转为硬币的一个给定的公平的特定数目的磁头的特定数目的概率。这意味着我们的观察头概率/万尾取决于硬币（θ）的公平性。
P(y=1|θ)=
P(y=0|θ)=
值得注意的是，1为头和0为尾是一个数学符号制定的典范。我们可以将上述数学定义结合成一个单一的定义来表示两者的结果的概率。
P（Y |θ）=
这就是所谓的伯努利近似函数，抛硬币的任务被称为伯努利试验。
y={0,1},θ=(0,1)
而且，当我们想看到一系列的头或翻转，它的概率为：
此外，如果我们感兴趣的是头的数目的概率ž在卷起Ñ数翻转下的情况，则概率如下所示：
4.2 前置信度分布
这个分布用于表示关于基于以往的经验，我们的参数分布情况。
但是，如果一个人没有之前的经验呢？
不用担心，数学家们想出了方法来缓解这一问题。它被认为是uninformative priors。
那么，用来表示先验数学函数称为beta distribution， 它有一些非常漂亮的数学特性，使我们对建模有关二项分布有所了解。
Beta分布的概率密度函数的形式为：
在这里，我们的焦点停留在分子上，分母那里只是为了确保整合后的总概率密度函数的计算结果为1。
α和 β被称为形状决定密度函数的参数。这里α类似于试验中出现头的数量，β对应于实验中尾的数量。下图将帮助您想象不同值中 α和 β的测试分布
你也可以使用R中的代码绘制自己的Beta分布：
> library(stats)
> par(mfrow=c(3,2))
> x=seq(0,1,by=o.1)
> alpha=c(0,2,10,20,50,500)
> beta=c(0,2,8,11,27,232)
> for(i in 1:length(alpha)){
y<-dbeta(x,shape1=alpha[i],shape2=beta[i])
plot(x,y,type="l")
}
注： α和β是直观的理解，因为它们可以通过已知的平均值（μ）和分布的标准偏差（σ）来计算。实际上，它们是相关的：
如果分发的平均值和标准偏差是已知的，那么有形状参数可以容易地计算出来。
从上面的图表可以推理出：
当没有抛掷的时候，我们认为硬币的公平性可以通过一条平滑的线来描绘。
当头比尾部出现的更多时，图中显示的峰值向右一侧移动，表明头出现的可能性较大，以及硬币是不公平的。
随着越来越多的抛掷动作完成后，头所占比重较大的峰值变窄，增加了我们对硬币抛掷公正性的信心。
4.3 后置信度分布
我们选择之前所相信的原因是为了获得一个β分布，这是因为当我们用一个近似函数相乘，后验分布产生类似于现有分配，这是很容易涉及到和理解的形式。
使用贝叶斯定理进行计算
之间的公式变为
只要知道的平均值和我们的参数标准发布 θ，并通过观察头的N翻转，可以更新我们对模型参数的（θ）。
让我们用一个简单的例子来理解这一点：
假设，你认为一个硬币有失偏颇。它具有为0.1的标准偏差，约0.6的平均（μ）偏差。
然后 ，α= 13.8 ， β=9.2
假设你观察到80次头在上（z=80在100翻转中）（ N=100）。则
prior = P(θ|α,β)=P(θ|13.8,9.2)
Posterior = P(θ|z+α,N-z+β)=P(θ|93.8,29.2)
将其图像化：
上述图中的R代码实现过程是：
> library(stats)
> x=seq(0,1,by=0.1)
> alpha=c(13.8,93.8)
> beta=c(9.2,29.2)
> for(i in 1:length(alpha)){
y<-dbeta(x,shape1=alpha[i],shape2=beta[i])
plot(x,y,type="l",xlab = "theta",ylab = "density")}
随着越来越多的翻转被执行，以及新的数据观察到，我们能进一步得到更新，这是贝叶斯推理的真正力量。
5. 测试意义——频率论VS贝叶斯
无需使用到严格的数学结构，这部分将提供不同的频率论和贝叶斯方法预览。相关的简要概述，以及测试组哪种方法最可靠，和它们的显着性和差异性。
5.1 p值
针对特定样本的t分和固定大小样本中的分布是计算好的，然后p值也被预测到了。我们可以这样解释p值：（以p值的一例0.02均值100的分布）：有2％的可能性的样品将具有等于100的平均值。
这种解释说明从取样不同尺寸的分布，人们势必会得到不同的T值，因此不同的p值的缺陷受到影响。p值小于5％并不能保证零假设是错误的，也没有p值大于5％确保零假设是正确的。
5.2 置信区间
置信区间也有同样的缺陷，此外因CI不是一个概率分布，没有办法知道哪些值是最有可能的。
5.3 贝叶斯因子
贝叶斯因子是p值在贝叶斯框架等价量。
零假设在贝叶斯框架：仅在一个参数的特定值（例如θ= 0.5）和其他地方零概率假定∞概率分布。（M1）
另一种假设是θ的所有值都是可能的，因此代表分布曲线是平坦的。（M2）
现在，新数据的后验分布如下图所示。
θ的各种值代表贝叶斯统计调整可信度（概率）。可以很容易地看出，概率分布已经转向M2具有更高的值M1，即M2更可能发生。
贝叶斯因子不依赖于θ的实际分配值，但在M1和M2的值幅度间移位。
在面板A（上图所示）：左边栏是零假设的先验概率。
在图B（上图所示），左边栏是零假设的后验概率。
贝叶斯因子被定义为后验概率的对现有的进行对比：
要拒绝零假设，BF <1/10是首选。
我们可以看到使用贝叶斯因子代替p值的好处，它们具有独立的意图和样本量。
5.4 高密度间隔（HDI）
HDI由后验分布观察新数据形成，由于HDI是一个概率，95％的HDI给出95％的最可信的值。它也保证了95％的值将处于不同的CI区间。
请注意，前95％的HDI比95％后验分布更广泛，这是因为我们在HDI中增加了对新数据的观察。
总结：贝叶斯统计作为一个基础算法，在机器学习中占据重要的一席之地。特别是在数据处理方面，针对事件发生的概率以及事件可信度分析上具有良好的分类效果。
注：这部分来源雷锋网。
《END》
写在后面：各位圈友，一个等待数日的好消息，是计量经济圈应圈友提议，09月04日创建了“计量经济圈的圈子”知识分享社群，如果你对计量感兴趣，并且考虑加入咱们这个计量圈子来受益彼此，那看看这篇介绍文章和操作步骤哦（戳这里）。进去之后一定要看“群公告”，不然接收不了群信息。